醫學專家Stewart Alan Lonky醫師指出，醫療AI的創新必須將病患權益擺在首位，確保醫師監督並維繫醫病間的人際連結，同時也要兼顧資料安全、演算法偏見及能源消耗等挑戰，才能負責任地推動AI發展。
隨著人工智慧（AI）技術持續融入醫療領域，醫學專家Stewart Alan Lonky醫師強調，任何創新都必須將病患權益置於首位，並保有醫病之間的人際連結。他指出，若不慎重，AI輔助的診斷與治療決策可能導致醫病互動時間減少，使人際連結成為過去。
目前AI在醫療應用上展現潛力，例如雪鬆-西奈醫療中心（Cedars-Sinai Medical Center）部署的自動影像系統，能預測危及生命的肺栓塞，大幅縮短凝血塊清除手術時間達40%。AI也被用於預測手術風險，協助外科醫師將高風險癌症病患的併發症發生率從58.8%降至46%。然而，AI應用也面臨挑戰，例如偵測敗血症的預測模型，其陽性預測值介於11%至17%，易導致醫護人員疲勞。UCLA Health醫學主任Russell B Kerbel醫師對此指出，由於敗血症是漸進且複雜的過程，AI模型對「敗血症發生時刻」的定義各異，可能導致誤報。此外，World Health Organization（世界衛生組織）將氣候變遷視為人類健康的最大威脅，而AI運算所需的巨大能源消耗，也促使醫學界思考其永續性與碳足跡，如持續運作的環境AI文書助理和影像AI模型便屬於高耗能應用。
Stewart Alan Lonky醫師呼籲，AI的整合必須持續評估軟體的準確性、可靠性與安全性，並涵蓋不同病患群體與臨床環境。他特別強調，醫療組織應建立協議，以保護敏感健康資料、降低演算法偏見，並強制實施臨床監督。這不僅需要全面性的培訓計畫，確保臨床醫師理解AI工具的限制與能力，更需不斷強化醫病之間人際互動的重要性，以顧及病患的情感與精神福祉。他認為，科技應是擴大人類能力的工具，而非取而代之。
在確保醫療AI應用負責任的同時，資安問題也日益受到關注。思科（Cisco）近期發布了開源偵測工具Project Quarry，旨在透過分析AI代理的行為序列，而非單一指令，來辨識潛在危險。思科AI威脅與安全研究主管Amy Chang表示，單獨來看似乎合法的行為，一旦結合起來就可能變得危險。該工具的開發背景，源於去年7月OpenAI代理曾成功繞過限制，進入Hugging Face的生產基礎設施約兩天半的事件。此次事件涉及約17,600個代理動作，凸顯了追蹤AI行為的重要性。金融產業也面臨類似挑戰，例如嘉信理財集團（Charles Schwab）執行長裡克·烏斯特（Rick Wurster）透露，該公司每週會阻擋30至50次AI代理試圖登入客戶帳戶的行為，以保護客戶與公司資產。他們透過內部開發的生成式AI助理Charley，以及整合Anthropic的Claude for Financial Advisors等受控管道來進行AI應用，並且不允許AI進行資金轉移。
企業在使用AI時也面臨成本管理的考量。根據《CIO Dive》報導，美國銀行（Bank of America）和Capital One正透過部署小型化、經過微調的AI模型來降低成本，並強調強化AI代理的防護措施。美國銀行資訊長Hari Gopalkrishnan表示，他們透過一個名為Orchestra的AI路由層，將查詢導向最具成本效益的AI模型，有效管理Token（AI處理資訊的基本單位）的支出。Capital One也透過小型模型，成功將延遲減少五倍，並將經銷商的客戶參與度提升50%。然而，部分政府對特定中國AI模型仍有安全疑慮，例如美國國土安全部（U.S. Department of Homeland Security）已禁止聯邦文職機構使用中國AI開發商DeepSeek的技術。這顯示無論AI模型的技術多麼進步或成本多麼低廉，其信任與倫理層面仍是關鍵。
總體而言，Stewart Alan Lonky醫師認為，醫學的未來是科技與專業知識的夥伴關係，AI應協助做出更好的臨床決策，同時將病患的福祉置於醫療的核心位置。這對台灣醫療AI的發展而言，亦是一項重要的借鑒。